Неща, които трябва да знаете за срещата на високо равнище за безопасността на изкуствения интелект в Сеул

СЕУЛ, Южна Корея (AP) — Южна Корея ще бъде хазаин на минисреща тази седмица по отношение на рисковете и регулирането на изкуствения разсъдък, следвайки встъпителния изкуствен интелект среща по сигурността във Англия предходната година, която притегли разнообразна навалица от софтуерни светила, откриватели и публични лица.

Срещата в Сеул има за цел да надгради работата, стартирана на срещата в Обединеното кралство за преодоляване на заканите, подбудени от авангардни системи за изкуствен интелект.

Ето какво би трябвало да знаете за AI Срещата на върха в Сеул и проблеми с сигурността на AI.

КАКВИ МЕЖДУНАРОДНИ УСИЛИЯ СА ПОЛОЖЕНИ ЗА БЕЗОПАСНОСТТА НА ИИ?

Срещата на върха в Сеул е едно от многото световни старания за основаване на парапети за бързо напредващата технология, която дава обещание да трансформира доста аспекти на обществото, само че също по този начин повдигна угриженост по отношение на нови опасности както за всекидневието, като алгоритмични отклонения, които изкривяват резултатите от търсенето, по този начин и евентуални екзистенциални закани за човечеството.

На срещата на върха в Обединеното кралство през ноември, извършена в някогашна секретна военновременна база за разтрошаване на кодове в северния Блечли от Лондон, откриватели, държавни водачи, механически ръководители и членове на групи на гражданското общество, доста от които с противоположни възгледи по отношение на ИИ, събрани в диалози при закрити врата. Изпълнителният шеф на Tesla Илон Мъск и изпълнителният шеф на OpenAI Сам Олтман се смесиха с политици като английския министър председател Риши Сунак.

Делегати от повече от две дузини страни, в това число Съединени американски щати и Китай, подписаха Декларацията от Блечли, като се съгласиха да работят дружно, с цел да овладеят евентуално „ пагубните “ опасности, подбудени от галопиращия прогрес в региона на изкуствения разсъдък.

През март Общото заседание на Организация на обединените нации утвърди първата си резолюция по отношение на изкуствения разсъдък, подкрепяйки интернационалните старания да се подсигурява, че мощната нова технология е от изгода за всички народи, зачита човешките права и е „ безвредна, сигурна и надеждна “.

По-рано този месец Съединени американски щати и Китай организираха първите си диалози на високо равнище по отношение на изкуствения разсъдък в Женева, с цел да обсъдят по какъв начин да се оправят с рисковете от бързо разрастващата се технология и да дефинират общи стандарти за ръководството ѝ. Там публични представители на Съединени американски щати показаха угриженост по отношение на „ злоупотребата с ИИ “ от страна на Китай, до момента в който китайски представители укориха Съединени американски щати за „ рестриктивните мерки и натиска “ върху изкуствения разсъдък, съгласно техните държавни управления.

КАКВО ЩЕ съдебна експертиза ОБСЪЖДА НА СРЕЩАТА НА ВЪРХА В СЕУЛ?

Срещата на 21-22 май се провежда взаимно от държавните управления на Южна Корея и Обединеното кралство.

На първия ден, вторник, Южнокорейският президент Юн Сук Йол и Сунак ще се срещнат виртуално с водачите. Няколко международни водачи в промишлеността бяха поканени да дават настояща информация за това по какъв начин извършват уговорките, поети на срещата на върха в Блечли, с цел да подсигуряват сигурността на своите AI модели.

На втория ден цифровите министри ще се съберат за персонална среща, проведена от южнокорейския министър на науката Лий Джонг-хо и министъра на технологиите на Англия Мишел Донелан. Участниците ще споделят положителни практики и съответни проекти за деяние. Те също по този начин ще споделят хрумвания по какъв начин да предпазят обществото от евентуално негативни въздействия на изкуствения разсъдък върху области като потреблението на сила, служащите и разпространяването на неверна и дезинформация, съгласно уредниците.

Срещата е наречена мини виртуална среща на върха, която служи като междинна среща, до момента в който Париж организира пълноценно персонално издание по-късно тази година.

Срещата на цифровите министри би трябвало да включва представители от страни като Съединените щати, Китай, Германия, Франция и Испания и компании, в това число основателя на ChatGPT OpenAI, Гугъл, Microsoft и Anthropic.

КАКЪВ НАПРЕДЪК СА ПОСТИГНАЛИ УСИЛИЯТА ЗА БЕЗОПАСНОСТТА НА ИИ?

Споразумението, реализирано на срещата в Обединеното кралство, беше леко във връзка с детайлностите и не оферираше метод за контролиране на развиването на ИИ.

„ Съединените щати и Китай стигнаха до последната среща на върха. Но когато разгледаме някои правила, оповестени след срещата, те бяха сходни на това, което към този момент беше оповестено след някои срещи на Организация на обединените нации и Организацията за икономическо сътрудничество и раз “, сподели Лий Сеонг-йоб, професор във Висшето учебно заведение по мениджмънт на технологиите в Корейския университет в Сеул. „ Нямаше нищо ново. “

Важно е да се организира световна среща на върха по въпросите на сигурността на ИИ, сподели той, само че ще бъде „ доста мъчно “ за всички участници да реализират съглашения, защото всяка страна има разнообразни ползи и разнообразни равнища на вътрешни AI технологии и промишлености.

Събирането се организира, до момента в който Meta, OpenAI и Гугъл пускат най-новите версии на своите модели AI.

Оригиналната среща на върха за сигурността на ИИ беше замислена като място за правене на решения за по този начин наречените екзистенциални опасности, подбудени от най-мощните „ модели на основата “, които са в основата на системи с ИИ с общо предопределение като ChatGPT.

Пионерски компютър ученият Йошуа Бенгио, именуван един от „ кръстниците на ИИ “, беше определен на срещата в Обединеното кралство да управлява експертна група, натоварена с правенето на отчет за положението на сигурността на ИИ. Междинна версия на отчета, оповестена в петък, с цел да осведоми полемиките в Сеул, разпознава набор от опасности, подбудени от ИИ с общо предопределение, в това число злонамерената му приложимост за увеличение на „ мащаба и сложността “ на измами и измами, усилване на разпространяването на дезинформация или основаване нови биологични оръжия.

Неправилно работещите AI системи могат да разпространят пристрастия в области като опазване на здравето, наемане на работа и финансово кредитиране, до момента в който капацитетът на технологията да автоматизира огромен набор от задания също основава систематични опасности за пазара на труда, се споделя в отчета.

Южна Корея се надява да употребява срещата на върха в Сеул, с цел да поеме самодейността за формулиране на световно ръководство и правила за ИИ. Но някои критици споделят, че на страната липсва инфраструктура за изкуствен интелект, задоволително напреднала, с цел да играе водеща роля в такива въпроси на ръководството.

__

Чан заяви от Лондон.